工业互联网安全深度学习的研究方向有哪些

工业互联网安全深度学习的研究方向有以下这些：

• 深度神经网络的可解释性：人类思维很难理解深度神经网络的决策依据，这是因为深度神经网络通常被当成“黑盒”模型使用，每个神经元都是由上一层的线性组合再叠加 1 个非线性函数得到的，具有高度非线性的特征。对于工业互联网安全应用，除了模型输出的最终结果外，人们还应知道模型是基于哪些因素考量得出结论的；如果模型不可解释，则意味着模型本身是不可知、不安全的。因此，只有确保信息可靠性（如没有受到投毒攻击、对抗性攻击等）、明晰模型输入输出的因果关系，模型的预测结果才能令人信服，也才能交由深度学习来承担工业互联网安全体系中的核心任务。

• 样本收集和计算成本：随着深度学习方法的发展，神经网络层数越来越深，所需的训练样例数目、算力要求（电力消耗）也在迅猛增加。即使深度学习模型相比于传统方法具有更好的效果，但提升效率带来的收益甚至可能无法弥补增加成本，这将直接制约深度学习技术在工业互联网安全中的推广应用。工业互联网安全的应用场景多样，需要针对性地收集数量可观的数据并加以手工标注，人力成本较高；深度神经网络规模庞大，为达到精度、实时性等要求，需要高性能计算系统的支持，带来较高能耗需求。因此，需要研究更高效、自动化的数据集构建方法，更低功耗的深度学习模型与计算系统。

• 样本集不均衡：深度学习在消费互联网应用方面体现出了优势，但工业互联网的应用领域及场景千变万化，难以为深度学习模型提供足够多的样本量。因此，需要研究通过自动化工具增加样本量的方法，基于小样本的深度学习方法。面对碎片化、复杂多变的工业互联网安全应用及场景，构建具有均衡性、可全面反映数据真实分布的样本集，将之用于训练深度学习模型仍是挑战。目前已有过采样、欠样本等方法来缓解深度学习中样本不均衡的问题，但依然缺乏实际可用的系统性研究成果。

• 模型结果的可靠性：工业互联网涉及领域众多，框架构成复杂，对系统的整体可靠性要求很高。例如，航空、航天类飞行器的零部件生产，要求设备达到可靠性不低于 99.999%；如果重要节点发生故障，会造成批次性的产品损坏或性能降级。在实际工业生产过程中，模型的稳定性要比表达能力更为重要，一旦某个生产环节出现问题，可能影响整条生产线的运转；很多深度学习模型的预测准确率不足 90%，几乎无法移植到对可靠性要求极高的工业互联网应用。因此，研究提高深度学习技术模型准确度、确定性、可靠性的方法显得尤为重要。

• 平衡可用性与安全性：深度学习应用自身也存在安全性和隐私性的问题。深度学习模型的训练需要大量数据样本，在公开模型以实现商业价值的同时，保护模型与训练数据不被非法窃取和使用是值得关注的课题。对于工业生产而言，模型的安全性非常重要。有学者提出了通过差分隐私、同态加密方法保护模型隐私的办法，通过对抗性训练来侦测对抗性，进而提高模型的安全性；但这些方法在一定程度上降低了模型的可用性，影响了模型的性能表现。因此，未来需要研究深度学习模型可用性与安全性的平衡措施。